Verifiable Social Reasoning for LLM Assistants
面向 LLM 助理的可验证社会推理评估框架
🧭 评估框架 · 多智能体模拟 · 社会推理
Google Research · Hebrew University · University of Cambridge
构建多智能体模拟框架 Fuse，用隐藏动机与用户中介生成可验证社会推理评估，揭示 LLM 对偏见框架的系统性敏感
📌 工作参考价值（4 点）
- 在对话式推荐或 Agent 客服场景中，可借鉴 Fuse 的多智能体模拟思路：让一个“用户代理”带着有偏/不完整信息咨询 LLM，同时隐藏真实意图作为 ground truth，低成本构建可验证的对话推理评估集，避免依赖昂贵人工标注。
- 论文发现 LLM 对用户偏置框架敏感，提示在电商导购/客服机器人中需警惕用户主观描述（如“我觉得这是假货”“这个商品很差”）引入的偏差，可在 prompt 中显式要求模型分离事实与用户评价，或引入多轮确认机制而非直接采信。
- “更长对话并不总是提高性能”的结论可迁移到对话策略：不要默认多轮追问一定好，应结合用户耐心和任务难度设置最大追问轮数，或训练模型只在关键信息缺失时提问。
- 评估中区分模型所需细节与人类所需细节的思路，可用于生成式推荐的评测：设计“信息效率”指标，衡量模型在最少用户输入下能否正确推理偏好，而不仅是最终准确率。